Suchergebnisse

In der letzten Woche erschien hier ein Text mit dem unterstützenswerten Anliegen, auf die Problematik von Ethics-Washing in der Diskussion um die Regulierung Künstlicher Intelligenz und Datenschutz hinzuweisen. Wir meinen, dass dazu andere Fragen gestellt werden müssen, als diejenigen, die der Beitrag aufwirft, und zweitens die angesprochenen Aspekte differenziert werden sollten. Angesichts zahlreicher legislativer Desiderate des KI-Verordnungsvorschlags und des nicht abgeschlossenen Gesetzgebungsprozesses sind diese Diskussionen zu Grundlagen von Technologie-Regulierung aktuell auch dringend geboten. Wir plädieren dafür, Ethik und Werte nicht als Gegensätze zu einer demokratischen Gesetzgebung zu verstehen, sondern als notwendige Komponenten einer informierten regulatorischen Debatte.

It looks like a good week for data protection. On Tuesday, the Commission presented a new proposal for a Regulation on additional procedural rules for the GDPR, and a few hours later, the ECJ published its decision C-252/21 on Meta Platforms v Bundeskartellamt (Federal Cartel Office). While the Commission's proposal to improve enforcement in cross-border cases should probably be taken with a pinch of salt, the ECJ ruled on some things with remarkable clarity. The first reactions to the ruling were quite surprising; few had expected the ECJ to take such a clear stance against Meta's targeted advertising business model. It does however represent a consistent interpretation of the GDPR in the tradition and understanding of power-limiting data protection.

Künstliche Intelligenz (KI) und Robotik sind in aller Munde. Dabei erscheinen manche der diskutierten Anwendungsfälle noch als reine Theorie. Anders ist dies in der Medizin. Das Werk befasst sich mit den drängendsten juristischen Fragen, blickt dabei aber auch über den Tellerrand, indem medizinisch-technische sowie ethisch-philosophische Aspekte nicht ausgeklammert bleiben.

On 21 April 2021, the European Commission presented its long-awaited proposal for a Regulation "laying down harmonized rules on Artificial Intelligence", the so-called "Artificial Intelligence Act" (AIA). This article takes a critical look at the proposed regulation. After an introduction (1), the paper analyzes the unclear preemptive effect of the AIA and EU competences (2), the scope of application (3), the prohibited uses of Artificial Intelligence (AI) (4), the provisions on high-risk AI systems (5), the obligations of providers and users (6), the requirements for AI systems with limited risks (7), the enforcement system (8), the relationship of the AIA with the existing legal framework (9), and the regulatory gaps (10). The last section draws some final conclusions (11).

Die Freiheitssicherung als Funktion der Grundrechte wird nicht nur durch staatliches Handeln in einer neuen Qualität, sondern auch durch die Quantität staatlicher Maßnahmen in einer Rechtsordnung herausgefordert, in der nahezu jeder Lebensbereich rechtlich reguliert ist. Nicht jede Kumulation oder Gesamtbetrachtung staatlicher Belastungen stellt dabei einen additiven Grundrechtseingriff dar. Erarbeitet werden Kriterien zur Bestimmung des additiven Grundrechtseingriffs und die dogmatische Herleitung aus einem erweiterten Eingriffsverständnis. Dabei liegt ein Fokus der Arbeit auf der Frage, ob die Kriterien eines klassischen Grundrechtseingriffsbegriffs den Ausgangspunkt einer Gesamtbetrachtung staatlichen Handelns bilden können. Der additive Grundrechtseingriff wird auf seine Relevanz in den verschiedenen Grundrechtsfunktionen und -dimensionen überprüft. Zentraler Schwerpunkt der Bearbeitung ist die Entwicklung verfassungsrechtlicher Grenzen additiver Grundrechtseingriffe und deren prozessuale Überprüfbarkeit. / »The Additive Interference with Fundamental Rights in German Constitutional Law« -- This book examines the preconditions and legal consequences of the concept of additive interferences with fundamental rights guaranteed by the German constitution. It traces the incremental development of the concept of interference from its narrow classic interpretation to a wider modern understanding that takes into account interferences through aggregated state action and their procedural enforcement. The analysis also includes an overview of the possible additive interferences with fundamental rights in public international law.

The automation bias describes the phenomenon, proven in behavioural psychology, that people place excessive trust in the decision suggestions of machines. The law currently sees a dichotomy - and covers only fully automated decisions, and not those involving human decision makers at any stage of the process. However, the widespread use of such systems, for example to inform decisions in education or benefits administration, creates a leverage effect and increases the number of people affected. Particularly in environments where people routinely have to make a large number of similar decisions, the risk of automation bias increases. As an example, automated decisions providing suggestions for job placements illustrate the particular challenges of decision support systems in the public sector. So far, the risks have not been sufficiently addressed in legislation, as the analysis of the GDPR and the draft Artificial Intelligence Act show. I argue for the need for regulation and present initial approaches.